IA, “caixas pretas” cujo funcionamento os investigadores estão a tentar decifrar

Os designers de inteligência artificial (IA) têm dedos para jardinagem? Na primavera, uma publicação de Dario Amodei , cofundador da editora de inteligência artificial Anthropic, comparou o trabalho deles à arte de cultivar plantas. Você seleciona as espécies, o terreno e escolhe a quantidade de água e luz solar, seguindo cuidadosamente os conselhos dos botânicos mais influentes, a fim de criar "as condições ideais para orientar sua forma e crescimento", observou ele. "Mas a estrutura exata que emerge é imprevisível", acrescentou, e nossa compreensão de como ela funciona é "fraca". O oposto de um programa de computador clássico, cujos designers conseguem explicar os mecanismos em grande detalhe.

Outra imagem, menos rústica, também surge com frequência entre os cientistas para descrever a IA: a "caixa preta". Uma analogia que diverte Thomas Fel, pesquisador francês especializado em sua compreensão, na Universidade Harvard. "Paradoxalmente, elas são bastante transparentes", sorri, porque são inteiramente compostas de valores numéricos perfeitamente legíveis.

Em teoria, uma IA deveria ser mais fácil de entender do que um cérebro humano porque seus "neurônios" são mais rudimentares: são simplesmente pequenas calculadoras que armazenam centenas de valores numéricos, informando-lhes quando reagir a sinais de seus vizinhos. Sem mencionar que podem ser "abertos e maltratados" sem a obtenção do consentimento do paciente, acrescenta Ikram Chraibi Kaadoud, pesquisador em "IA confiável" no Instituto Nacional de Pesquisa em Ciência da Computação e Automação (Inria) da Universidade de Bordeaux.

Restam 78,56% deste artigo para você ler. O restante está reservado para assinantes.